Mıknatıs üzerindeki coğrafi kuzeye yönelme özelliği, ilk defa 1. yüzyılda Çinli denizciler tarafından keşfedilmiştir. Denizciler, mıknatıs taşını bir çöp üzerine koyarak suya bıraktıklarında, taşın kuzey yıldızını gösterdiğini keşfetmişlerdir. Bunun üzerine pusula icat edilmiştir.
İlk olarak denizciler tarafından kullanılan pusulalar, mıknatıs taşı ile üretilmiştir. Denizciler; mıknatıs taşını bir çöp üzerine koyarak suya bırakırlar, çöp Dünya'nın manyetik alan çizgileriyle aynı hizaya gelir ve bir ucu Kutup Yıldızı'nı gösterir.
Pusulanın Avrupa'ya ulaşması yaklaşık 12. yüzyılda gerçekleşmiş ve bu tarihten sonra geliştirilmeye başlanmıştır.
Pusulanın Çin den Avrupa'ya geçişi ile ilgili bir kaç rivayet vardır.
İlki Çinli tüccarların Ortadoğu'ya yaptıkları seyahatler pusulanın önce Ortadoğuya oradan da Avrupaya ulaştığıdır.
Bir diğeri ise Avrupalı kaşiflerin doğu seyahatlarinde pusula ile tanıştığıdır. Bir diğer rivayet ise pusulanın Çin'den direkt olarak Avrupa'ya geldiğidir.
Ancak pusulanın icadı ile ilgili, ilk önemli gelişmeyi yapan ve yazılı kaynaklara geçen isim Pierre de Maricourt olmuştur. 1269 yılında Pierre De Maricourt, iğneyi bir mile geçirerek, saydam ve derecelendirilmiş bir kutunun içine geçirerek pusulanın ana hatlarını oluşturmuştur.
Avrupa da manyetik iğneler ile ilgili ilk kayıt Alexander Neckam'ın 1190 yılında paris te yazdığı "On the Natures of Things" aldı kitabında yer almaktadır.
Modern pusulanın tarihi William Sturgeon‘ın elektromıknatısı bulması ile başlamıştır. İngiliz mucitin bu buluşu modern pusulanın gelişiminin başlangıcı olarak kabul edilmektedir. 1825 yılından sonra bir kaç farklı pusula ortaya çıktı. Sıvı pusula ile ilgili ilk prototip 1690 yılında Sir Edmund Halley tarafından yapıldı. İlk el pusulasının patenti 1885 yılında alındı.